Brief an EU-Parlament: Metas Content-Moderator:innen fordern besseren Schutz

Content-Moderator:innen eines für Meta aktiven Dienstleisters richten sich in einem Brief an das Europäische Parlament. Sie machen auf „unzumutbare Bedingungen“ in ihrem Berufsfeld aufmerksam: Ein geringer Lohn, enorme psychische Belastungen, kaum Pausen und weniger Urlaub als deutscher Mindestmaß gehören zu ihrem Arbeitsalltag. Von der EU fordern sie deshalb Gesetze, die ihre Arbeitsbedingungen verbessern.

Auf Social-Media-Plattformen wie Instagram und Facebook werden jeden Tag riesige Mengen an Inhalten hochgeladen. Trotz ausgefeilter Moderations-Algorithmen müssen am Ende oft immer noch Menschen kontrollieren, ob die Inhalte gegen Regeln verstoßen. Um Kosten zu sparen, lagert der Mutterkonzern Meta diese Arbeit oft an Drittfirmen aus. Moderator:innen einer in Deutschland sitzenden Drittfirma schildern in einem Brief, der netzpolitik.org vorliegt, unter welch prekären Arbeitsbedingungen sie beschäftigt sind. Aus Angst vor Kündigungen soll der Name der Firma hier nicht genannt werden.

„Wir sind die unsichtbaren Arbeitenden, die dafür sorgen, dass die Plattformen sicher und ’sauber‘ bleiben“, stellen sie sich in dem Brief vor. Damit die Nutzer:innen von Facebook und Instagram nicht mit verstörenden Inhalten konfrontiert werden, leisten sie ihre Moderationsarbeit. Dafür kriegen sie mit 14,89 Euro pro Stunde etwas mehr als Mindestlohn. „Diese Vergütung spiegelt jedoch in keiner Weise die Intensität, den emotionalen Stress und die Bedeutung unserer Arbeit wider“, schreiben sie.

Extreme Belastungen und zu wenig Unterstützung

In einer typischen achtstündigen Schicht sitzen sie sieben Stunden am Stück vor dem Computer und sind währenddessen teils abgründigen Eindrücken ausgesetzt: Vergewaltigungen, Folter und Tierquälerei werden nicht immer vom Algorithmus erkannt und müssen dann von Menschenhand entfernt werden – vorher müssen sich die Content-Moderator:innen das ansehen. Sie seien allerdings „keine Maschinen, die endlos verstörende Inhalte filtern können, ohne dass es Spuren hinterlässt“.

Mit den „extrem hohen Produktionsanforderungen“ würde keine Zeit bleiben, sich von den mentalen Belastungen zu erholen. „Wir sind gezwungen, im Zustand ständiger Belastung weiterzuarbeiten, ohne jemals die nötige Zeit oder Gelegenheit zur Reflexion oder Erholung zu haben“, heißt es in dem Brief.

Meta erkennt diese Belastungen an und bietet deshalb Schulungen und psychologische Beratungen für Moderator:innen an. Das Angebot gehe aus Sicht der Arbeiter:innen allerdings nicht weit genug: „Die Schulungen sind oft oberflächlich und bereiten uns nicht ausreichend auf die emotional belastenden Inhalte vor, die wir täglich sehen.“ Außerdem sei die psychologische Beratung nur „schwer zugänglich oder wird so gestaltet, dass sie kaum auf unsere tatsächlichen Bedürfnisse eingeht.“

Die Content-Moderator:innen sind deshalb von ihrem De-Facto-Arbeitgeber enttäuscht: „Es fühlt sich manchmal so an, als würde sich Meta mehr um das Image der Content-Moderation kümmern als um uns – die Menschen hinter den Bildschirmen.“ Hinzu kommt, dass sie nicht mal bei Meta selbst beschäftigt sind, sondern ihre Arbeit an Drittfirmen ausgelagert wird. Aus der Sicht der Arbeiter:innen entzieht sich das Unternehmen dadurch der Verantwortung über ihr Wohlergehen.

Um eine Organisation zwischen Content-Moderator:innen zu ermöglichen, veranstaltete die Dienstleistungsgewerkschaft Verdi vergangenes Jahr einen „Content Moderator Summit“. Auch die für Meta aktiven Arbeiter:innen waren dort und haben zum Austausch beigetragen. In dem jetzt veröffentlichten Brief äußern sie allerdings auch Kritik an Verdi: Nach der öffentlichkeitswirksamen Veranstaltung hätte die Gewerkschaft ihre Zusammenarbeit erheblich zurückgefahren, was die Arbeiter:innen enttäuschte.

Die Forderungen

Von den Mitgliedern des Europäischen Parlaments, an die der Brief adressiert war, erhoffen sich die Content-Moderator:innen nun neue Gesetze, die sie in ihrem Arbeitsalltag schützen sollen. Konkret fordern sie die Durchsetzung fairer Löhne, Zugang zu psychischen Gesundheitsressourcen und für Tech-Unternehmen geltende Transparenzanforderungen. „Ohne eine fundierte Gesetzgebung werden wir nicht in der Lage sein, die psychischen Belastungen zu überstehen und gleichzeitig eine angemessene Arbeit zu leisten“, schreiben sie.

Die kürzlich in Kraft getretene EU-Richtlinie für Plattformarbeit verpflichtet Plattformarbeitgeber zumindest zu mehr Transparenz im Einsatz von Algorithmen. Faire Löhne und Zugang zu psychischer Gesundheitsversorgung sind von der Richtlinie allerdings nicht geregelt. Bei der Gestaltung hätte man nicht an Datenarbeit wie Content-Moderation gedacht, sagte auch Leila Chaibi, Mitglied der Linken-Fraktion im Europäischen Parlament. Zusammen mit den Soziolog:innen Antonio Casilli und Milagros Miceli lud sie Ende November zu einem Austausch mit internationalen Datenarbeiter:innen nach Brüssel.

Hier der Brief in Volltext:

Sehr geehrte Mitglieder des Europäischen Parlaments,

wir wenden uns mit diesem Schreiben an Sie, um auf ein dringendes Thema aufmerksam zu machen, das an der Schnittstelle von Technologie, Arbeitsrechten und psychischer Gesundheit liegt: die Arbeitsbedingungen von Content-Moderator*innen, die von Outsourcing-Unternehmen für große Tech-Plattformen beschäftigt werden. Während wir weiterhin die Komplexität der Content-Moderation im digitalen Zeitalter angehen, dürfen wir nicht die menschlichen Kosten übersehen, die mit dieser wichtigen Arbeit verbunden sind.

Wir spielen eine entscheidende Rolle bei der Gestaltung von Online-Communities und der Gewährleistung der Sicherheit digitaler Räume. Doch diese wichtige Aufgabe übernehmen
wir oft unter unzumutbaren Bedingungen. Viele von uns sind bei Outsourcing-Unternehmen angestellt, wo wir mit niedrigen Löhnen, unzureichender Schulung und fehlender Unterstützung konfrontiert sind. Die Arbeitsbedingungen, unter denen wir täglich arbeiten, belasten nicht nur unser Wohlbefinden, sondern beeinträchtigen auch die Qualität der Content-Moderation, auf die die Nutzer*innen angewiesen sind.

Ausbeuterische Arbeitsbedingungen

Wir als Content-Moderator*innen arbeiten 40 Stunden und mehr in hoch stressigen Umfeldern und sind dabei verstörenden und traumatischen Inhalten ausgesetzt, ohne ausreichende Pausen oder Ressourcen, um das, was wir täglich sehen, zu verarbeiten. Die Natur unserer Arbeit führt bei vielen von uns zu schweren psychischen Problemen, darunter Angstzustände, Depressionen und posttraumatische Belastungsstörungen (PTSD). Trotz dieser extrem belastenden Bedingungen erhalten wir lediglich 20% über dem Mindestlohn, was 14,89 Euro pro Stunde entspricht – ein Betrag, der von Facebook als „hochqualifiziert“ und „ausreichend“ erachtet wird. Diese Vergütung spiegelt jedoch in keiner Weise die Intensität, den emotionalen Stress und die Bedeutung unserer Arbeit wider.

Die Tatsache, dass wir für diese schwere und oft traumatische Arbeit nur geringfügig mehr als den Mindestlohn bekommen, ist eine klare Form der Ausbeutung. Diese Missstände dürfen nicht ignoriert werden, und es ist an der Zeit, dass unsere Arbeitsbedingungen ernst genommen und fair vergütet werden.

Mangelnde Verantwortung von Meta – Aus der Perspektive der Mitarbeitenden

Während große Tech-Unternehmen wie Meta von unserer Arbeit als Content-Moderator*innen profitieren, distanzieren sie sich konsequent von den katastrophalen Arbeitsbedingungen, unter denen wir täglich arbeiten. Wir sind die unsichtbaren Arbeitenden, die dafür sorgen, dass die Plattformen sicher und „sauber“ bleiben, indem wir verstörende und oft traumatische Inhalte durchsehen und bewerten – und dennoch erhalten wir weder die nötige Anerkennung noch die Unterstützung, die wir benötigen.

Meta und andere Tech-Giganten überlassen diese kritische Aufgabe Outsourcing-Unternehmen, um sich ihrer Verantwortung zu entziehen und die damit verbundenen Kosten und Verpflichtungen auf Dritte abzuwälzen. Meta entzieht sich aktiv der Verantwortung für unser Wohlergehen, indem es uns an Outsourcing-Partner auslagert. Diese Outsourcing-Unternehmen sind für die Umsetzung von Schulungen und Unterstützung zuständig, jedoch wird von uns nicht selten erwartet, dass wir mit minimalen Ressourcen und ohne angemessene Vorbereitung arbeiten.

Als Content-Moderator*in bei Meta haben wir immer wieder gehört, wie sehr das Unternehmen betont, sich der Bedeutung von Content-Moderation bewusst zu sein und uns mit „fortlaufenden Schulungsprogrammen“ sowie „psychologischer Unterstützung“ zu versorgen. Doch in der Realität fühlt sich das anders an. Die Schulungen sind oft oberflächlich und bereiten uns nicht ausreichend auf die emotional belastenden Inhalte vor, die wir täglich sehen. Die psychologische Unterstützung, die angeboten wird, ist entweder schwer zugänglich oder wird so gestaltet, dass sie kaum auf unsere tatsächlichen Bedürfnisse eingeht.

Es fühlt sich manchmal so an, als würde sich Meta mehr um das Image der Content-Moderation kümmern als um uns – die Menschen hinter den Bildschirmen. Wir sind keine Maschinen, die endlos verstörende Inhalte filtern können, ohne dass es Spuren hinterlässt. Doch genau so behandelt man uns oft. Unsere Belastungen, Ängste und psychischen Herausforderungen scheinen in den Entscheidungen des Unternehmens keine Rolle zu spielen. Statt uns wirklich zu unterstützen, wird oft nur das Nötigste getan, um den äußeren Anschein zu wahren. Was wir brauchen, ist echte Fürsorge und der Wille, uns als Menschen hinter den Computern ernst zu nehmen – nicht nur als Zahnräder in einer riesigen Maschinerie.

Die Praxis, die Verantwortung auf Outsourcing-Partner zu schieben, verstärkt das Gefühl, dass Meta sich seiner moralischen und sozialen Verantwortung entzieht. Meta mag öffentlich betonen, dass sie sich um die „Sicherheit der Moderator*innen“ kümmern, aber die fortwährende Auslagerung der Verantwortung für Arbeitsbedingungen und Unterstützung zeigt, dass das Unternehmen eher an Profitmaximierung interessiert ist als an der tatsächlichen Verbesserung unserer Arbeitsumstände. Meta scheint nicht wirklich bereit zu sein, diese Missstände grundlegend zu adressieren.

Unzureichende psychologische Unterstützung – Aus unserer Perspektive als Mitarbeitende

Die psychische Unterstützung für Content-Moderator*innen ist erschreckend unzureichend und praktisch nicht zugänglich.Der Grund liegt in den extrem hohen Produktionsanforderungen, die uns aufgezwungen werden: In einer typischen achtstündigen Schicht müssen wir nahezu sieben Stunden am Arbeitsplatz bleiben und kontinuierlich Content moderieren. Während dieser Zeit dürfen wir unseren Arbeitsplatz nicht verlassen und müssen uns ohne Unterbrechung mit belastendem und oft traumatisierendem Material auseinandersetzen.

Das bedeutet, dass uns schlichtweg keine Zeit bleibt, um psychologische Unterstützung zu suchen oder uns von den emotionalen und psychischen Belastungen unserer Arbeit zu
erholen. Die wenigen Minuten, die uns für Pausen zur Verfügung stehen, reichen nicht aus, um den enormen mentalen Druck, den diese Arbeit verursacht, abzubauen. Wir sind
gezwungen, im Zustand ständiger Belastung weiterzuarbeiten, ohne jemals die nötige Zeit oder Gelegenheit zur Reflexion oder Erholung zu haben. Diese Bedingungen erschöpfen uns nicht nur körperlich, sondern auch emotional und psychisch. Der Mangel an echter Unterstützung und die strukturellen Hindernisse, die uns daran hindern, Hilfe zu suchen, verstärken das Gefühl der Isolation, der Überforderung und der Verzweiflung.

Es ist längst überfällig, dass die EU nicht nur die Notwendigkeit einer umfassenden psychischen Gesundheitsversorgung für alle Content-Moderator*innen anerkennt, sondern auch sicherstellt, dass diese Unterstützung tatsächlich zugänglich und nutzbar ist. Es reicht nicht aus, uns mit vagen Zusicherungen zu beruhigen – wir brauchen konkrete, praktikable Lösungen. Um unser Wohlbefinden zu erhalten und die Qualität der Moderation zu gewährleisten, muss endlich sichergestellt werden, dass wir die nötige Zeit und die richtigen Ressourcen haben, um mit den psychischen Belastungen unserer Arbeit umzugehen und langfristig gesund zu bleiben.

Die Notwendigkeit legislativer Maßnahmen – Aus der Perspektive der Content-Moderator*innen

Um uns als Content-Moderatorinnen zu schützen, appellieren wir an das Europäische Parlament, Gesetze zu erlassen, die die Rechte und Arbeitsbedingungen von Content-Moderatorinnen adressieren. Dazu gehört die Durchsetzung fairer Löhne, der Zugang zu psychischen Gesundheitsressourcen sowie die Einführung von Transparenzanforderungen für Tech-Unternehmen bezüglich ihrer Praktiken in der Content-Moderation. Nur wenn diese Unternehmen zur Verantwortung gezogen werden, können wir ein Arbeitsumfeld schaffen, in dem die Rechte und die Würde aller Arbeitenden gewahrt bleiben.

Als Content-Moderator*innen leisten wir eine hochqualifizierte und oft unterschätzte Arbeit, die entscheidend dazu beiträgt, dass die sozialen Plattformen sicher bleiben. Wir benötigen eine faire Vergütung, die unserer Expertise und der emotionalen Belastung dieser Arbeit gerecht wird. Dazu gehört auch, dass unsere Urlaubsansprüche auf das Mindestmaß in Deutschland erhöht werden, also auf mindestens 20 Tage, um uns die notwendige Erholung und psychische Regeneration zu ermöglichen.

Es ist dringend notwendig, dass die EU sich aktiv für bessere Arbeitsbedingungen für Content-Moderator*innen einsetzt. Ohne eine fundierte Gesetzgebung werden wir nicht in der Lage sein, die psychischen Belastungen zu überstehen und gleichzeitig eine angemessene Arbeit zu leisten. Die Schaffung eines sicheren, respektvollen und verantwortungsvollen digitalen Raums hängt davon ab, dass wir die nötige Unterstützung erhalten, um weiterhin mit der Sorgfalt und Verantwortung zu arbeiten, die diese Aufgabe erfordert.

Gewerkschaft Verdi

Als internationales Unternehmen mit einem hohen Anteil an Mitarbeitenden, die Migrant*innen in der ersten Generation sind, stehen wir vor der Herausforderung, uns in
einem Arbeitsumfeld zurechtzufinden, das stark von der deutschen Sprache und Bürokratie geprägt ist. Wir hätten uns von einer Organisation wie der Gewerkschaft Verdi, die sich für die Interessen der Arbeitnehmenden einsetzen soll, Unterstützung und Verständnis erwartet. Doch leider wurden wir enttäuscht.

Nachdem wir Verdi durch unsere Zusammenarbeit einen bedeutenden Schub in ihrer öffentlichen Wahrnehmung verschafft haben, wurden wir schlicht und ergreifend im Stich gelassen. Sobald der PR-Rummel vorbei war, standen wir allein da – ohne englischsprachige Ansprechpartner*innen, ohne Unterstützung, ohne die Fürsorge, die wir so dringend gebraucht hätten.

Verdi hat es nicht nur versäumt, auf unsere Bedürfnisse einzugehen, sondern hat auch gezeigt, dass ihre Prioritäten offenbar woanders liegen: im Streben nach mehr Mitgliedern und größerem Einfluss. Die tatsächlichen Anliegen der Menschen, die sie vertreten sollen, scheinen dabei kaum eine Rolle zu spielen. Statt Solidarität haben wir ein kaltes, kapitalistisches Kalkül erfahren, das uns klar machte, dass wir nur Mittel zum Zweck waren. Dieser Eindruck ist nicht nur bei uns entstanden. Auch Kolleg*innen an anderen Content-Moderation-Standorten teilen unsere Erfahrungen.

Dank der hervorragenden Arbeit von Dr. Milagros Miceli (Weizenbaum-Institut, DAIR), Julia Kloiber (Superrrr) und ihren Teams hatten wir die Möglichkeit, uns zu vernetzen und
auszutauschen. Ihr Engagement und ihre echte Unterstützung haben uns gezeigt, wie wichtig es ist, Menschen nicht nur als Zahlen zu sehen, sondern als Individuen mit echten Bedürfnissen. Die Zusammenarbeit hat uns gezeigt, dass es auch anders geht – dass man Solidarität und Menschlichkeit tatsächlich leben kann. Verdi könnte von ihnen eine Menge lernen, doch stattdessen hat sich die Gewerkschaft durch ihre Ignoranz und kurzsichtige Strategie selbst ins Abseits gestellt.

Vielen Dank für Ihre Aufmerksamkeit und Unterstützung in dieser wichtigen Angelegenheit.
Mit freundlichen Grüßen,

Content-Moderator*innen von Meta bei (redigiert) in Deutschland